Условие while (x[i]%j) != 0 || y[i]%j != 0) содержит синтаксическую ошибку с лишней скобкой, и условие не соответствует корректному завершению цикла (должно быть while (x[i] % j != 0 || y[i] % j != 0)).